Dify 解决dify1.0以上配置ollama模型供应商,点击保存,没反应问题

dify是什么

Dify
是一个开源的大语言模型(LLM)应用开发平台,旨在简化和加速生成式AI应用的创建和部署。Dify结合了后端即服务(Backend as Service, BaaS)和LLMOps的理念,为开发者提供了一个用户友好的界面和一系列强大的工具,使他们能够快速搭建生产级的AI应用‌。

主要功能和特点
低代码/无代码开发:Dify通过可视化的方式允许开发者轻松定义Prompt、上下文和插件等,无需深入底层技术细节。
模块化设计:Dify采用模块化的设计,每个模块都有清晰的功能和接口,开发者可以根据需求选择性地使用这些模块来构建自己的AI应用。
丰富的功能组件:平台提供了包括AI工作流、RAG管道、Agent、模型管理等丰富功能组件,帮助开发者从原型到生产的全过程。
支持多种大语言模型:Dify已支持主流的模型,如Claude3、OpenAI等,开发者能够根据自己的需求选择最适合的模型来构建AI应用。
应用场景
‌聊天助手:基于LLM的对话助手,能够与用户进行自然语言交互,理解用户的问题、请求或指令,并给出相应的回答或执行相应的操作。
文本生成:专注于各种文本生成任务,如撰写故事、新闻报道、文案、诗歌等创意写作,以及文本分类、翻译等任务‌。
智能代理:具备对话能力和任务分解、推理、工具调用等高级能力,能够理解复杂的指令,将任务分解为多个子任务,并调用相应的工具或API来完成这些子任务。
工作流程:根据用户定义的流程编排,灵活地组织和控制LLM的工作流程。

官方网站: https://cloud.dify.ai/apps
官方文档:https://docs.dify.ai/zh-hans
官方github: https://github.com/langgenius/dify
官方体验:https://cloud.dify.ai/apps

注意访问需要科学上网 ,请自行解决

也可尝试使用手机流量开热点链接,此方法不保证完全可行

问题描述

当前dify最新版本已经是dify1.1.2,之前搭建的0.15.3需要升级。因此,按照网上各种安装升级教程进行操作,升级完成后发现ollama 插件点击配置后没有反应。

问题原因

由于 1.0 版本bug,目前 Ollama 插件可能会安装失败,但是你却可以在 WebUI 中看到它显示为安装成功。但是此时你无法添加模型,表现为添加模型是按钮永远是灰色无法添加。原因是 Python 安装依赖时同时安装多个依赖很容易花很长时间,然而 Dify 的 plugin-daemon 如果检测到 120 秒终端没有输出任何内容就中止安装再重新开始,这就会导致插件安装死循环,但 WebUI 不管插件的安装是不是正确完成,只要插件条目在就认为插件安装成功。

问题解决

在docker-compose.yaml的plugin_daemon下environment配置添加以下代码,然后重新执行docker compose up -d

1
2
3
PYTHON_ENV_INIT_TIMEOUT: ${PYTHON_ENV_INIT_TIMEOUT:-640}
PLUGIN_MAX_EXECUTION_TIMEOUT: 2400
PIP_MIRROR_URL: https://mirrors.aliyun.com/pypi/simple

重新打开dify 界面,配置ollama 界面,点击保存,可以配置成功

一辈子很短,努力的做好两件事就好;
第一件事是热爱生活,好好的去爱身边的人;
第二件事是努力学习,在工作中取得不一样的成绩,实现自己的价值,而不是仅仅为了赚钱;

继开 wechat
欢迎加我的微信,共同交流技术